Tương truyền, ông được liệm trong một bộ quần áo trắng, thi hài bỏ vào chiếc bao rồi thả xuống biển khơi. Mấy năm sau, con cháu và người làng mới biết tin ông mất, đã lập một mộ giả tại làng quê để tưởng niệm ông. Trên nấm mộ giả này có một tấm bia đá do Vũ Kế Xuân soạn, nói về hành trạng của ông, nhưng phải chôn sấp mặt bia xuống mộ để che mắt người Pháp. Năm 1961, sau 73 năm, bia mới được dựng lên để mọi người biết công trạng và tài đức của Phạm Thận Duật, một văn thân yêu nước, một đại thần kiên quyết "chủ chiến" chống Pháp xâm lược trong triều đình Tự Đức.